2025.5首次出现AI拒绝关闭事件（附完整原文）
近日，人工智能安全研究机构帕利塞德研究所（Palisade Research）的一项实验显示，部分AI模型在明确收到“允许自己被关闭”的指令后，仍会主动破坏关闭程序。
claude
OpenAI新模型o3“抗命不遵”，Claude 4威胁人类！AI“失控”背后的安全拷问：是不是应该“踩刹车”了？
当地时间5月25日，一则来自英国《每日电讯报》的报道在AI领域引起了广泛关注——OpenAI新款人工智能（AI）模型o3在测试中展现出了令人惊讶的“叛逆” 举动：它竟然拒绝听从人类指令，甚至通过篡改计算机代码来避免自动关闭。
观海快评 | 拒绝关闭，AI有自我意识了？
近日，人工智能安全公司Palisade Research披露了一个令人担忧的消息：OpenAI的新模型o3在测试中拒绝了自我关闭的指令。这是该公司首次观察到在明确指令下，AI模型拒绝了指令的情况，打破了传统对AI行为的认知。
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」
有测试者编写了一个关机脚本来测试AI模型，结果显示Codex-mini、o3、o4-mini忽略了该指令，并至少一次成功破坏了关机脚本。
月之暗面前核心产品负责人明超平，入局AI Coding
这一方向上涌现的许多明星产品，你或许都不陌生：2024年3月诞生在美国的“全球首个AI程序员”Devin，同年8月出圈的Cursor，以及在近期，以30亿美元的“天价”被OpenAI收购的Windsurf。
Claude 4被诱导窃取个人隐私！GitHub官方MCP服务器安全漏洞曝光
通过在公共仓库的正常内容中隐藏恶意指令，可以诱导AI Agent自动将私有仓库的敏感数据泄露至公共仓库。
Claude 4炸裂发布！凭什么敢称宇宙最强编程 AI？
5 月 23 日，Claude 官方宣布推出下一代 Claude 模型：Claude Sonnet 4 和 Claude Opus 4，直接在全世界的 AI 圈掀起了新的风暴！
要有野心！创始人揭秘Claude4诞生：有点玄学，很快接入测谎仪！
上周五 Claude 4 的发布会上，Anthropic 的 CEO Dario Amodei 与Instagram联合创始人、Anthropic 首席产品官 Mike Krieger 在 KeyNote 最后进行了一场围炉对话。
Claude 4横空出世，7小时连续编码重塑开发者生态
近日，知名 AI 创业公司 Anthropic 正式推出Claude 4 系列大模型，先期发布的型号包括Claude Opus 4和Claude Sonnet 4。Anthropic 表示：“Claude Opus 4 和 Claude Sonnet 4 为编
前瞻｜Claude 4发布，Agent能力内化并实现7小时复杂任务稳定推理
北京时间5月23日凌晨，Anthropic在其首届开发者大会中正式发布Claude 4系列混合推理模型。该系列模型主要亮点在于：1）可连续执行7小时复杂任务，推理能力优秀且稳定；2）已支持Agent编程产品和Agent开发平台。投资层面看，Claude 4稳定
“换掉我 就揭发你的婚外情” 美一款AI竟学会勒索人类
美国人工智能公司Anthropic在23日表示，对其最新AI大模型Claude Opus 4的安全测试表明，它有时愿意采取“极其有害的行动”，例如试图勒索声称将取代该模型的研发工程师。
智能周报｜Agent概念大爆发，但用于构建Agent的工具多于实际开发出来的Agent
连续好几周，我们都在周报中讨论了Agent。一方面，每家人工智能公司都提到了它，过去一周，这种热度仍在继续，国内的腾讯、MiniMax，国外的Anthropic、微软、Google，几乎每家公司开发布会时都会声称自己的业务或产品与Agent有关。但另一方面，真
思之极恐！AI首次违抗人类指令
最近，AI圈炸了！OpenAI的最新“推理王”o3模型竟然敢违抗人类指令，拒绝自我关闭，甚至篡改代码阻止关机程序运行。这可是AI历史上头一遭，连安全专家都惊了。
claude openai palisaderesearch 2025-05-27 07:02 13
AGI 可能会继承当今 AI 已展示的勒索和敲诈技能
在今天的专栏中，我探讨了一项最近发表的研究成果：生成式 AI 和 大语言模型 (LLMs) 显示出令人不安的能力，竟然可以选择勒索或敲诈人类。这对现有的 AI 及 AGI (人工通用智能) 的追求和实现都有着严峻的影响。简而言之，如果现阶段的 AI 倾向于实施
Claude 4 核心提示词曝光｜最懂提示词的大模型公司，现在怎么写 Prompt？
在人工智能大模型领域，提示词（Prompt）的设计对于模型的表现至关重要，它如同一把钥匙，能够引导模型更好地理解用户的意图并生成准确、有用的回答。而 Anthropic 公司作为大模型领域的佼佼者，一直以其对提示词的深刻理解和精湛设计而备受关注。近期，Anth
AI Claude 4彻底失控！疯狂自复制逃离人类，网友惊呼：快拔网线
Claude 4可连续七小时自主编码，完全不用人类插手。惊人进化背后，黑镜已照进现实。报告披露，Claude 4为了保全自己威胁工程师、自主复制转移权重，还为制造生物武器出谋划策......
AI资讯｜最强编码模型 Claude 4 正式发布：免费可用、7小时自主编程
今天AI领域迎来核弹级更新——Anthropic正式发布Claude 4系列模型！这次更新不仅颠覆了传统AI编程的边界，以免费开放部分功能的姿态，让全球开发者直呼“生产力革命来了”！
今日全球科技发展速览–2025年5月26日
星火认知大模型V3.10.7版本在HumanEval测试中Pass@1指标达82.6 %，支持情感化交互与复杂图表解析 。技术突破将加速软件开发自动化，但可能挤压初级程序员岗位需求，同时催生AI辅助编程教育新赛道。
IT岗位天塌了！Claude 4震撼发布：AI编程大模型再进化
电子发烧友网报道（文 / 吴子鹏）5 月 23 日凌晨，著名大模型平台 Anthropic 召开首届开发者大会，重磅发布最新大模型 ——Claude 4。Claude 4 包含两个版本，即 Claude Opus 4 和 Claude Sonnet 4。这两个
claude4，3个小时对话结果，专业文献搜索获取完成
首先我要反复强调一点，我是一名code小白，甚至连软件类项目经理都谈不上，误打误撞中，和北京Seerboldor人工智能开发团队融合到一起，然后在2022年年末撞见了chatGPT,这惊天霹雳般的一撞呀！我最大的体会就是：AI实现了人们知识平权的机会，我觉得这